Un Œil sur demain : l’Intelligence artificielle ne remplace pas la participation citoyenne au Parlement ?

Gaitana_IA était candidate aux élections législatives colombiennes en mars dernier et était une avatar inscrite sur les listes électorales. La commune d’Audenarde a organisé une vaste consultation des habitants et recueilli 900 avis en ligne et 140 avis en face-à-face.

Gaitana_IA serait-elle la députée du futur ?

Elle était candidate aux élections législatives colombiennes en mars dernier. Une candidate atypique, à la peau bleue, parée de bijoux inspirés des communautés indigènes de Colombie, et entièrement virtuelle. Gaitana_IA était un avatar, inscrit sur les listes électorales, qui a suscité un intérêt considérable tout au long de la campagne électorale.

Ses concepteurs, deux humains, la présentait comme l’élue du renouveau. Les citoyens étaient invités à donner leur avis sur une plateforme via leurs téléphones portables, à discuter de leurs préoccupations et priorités, et à voter pour des propositions soumises par d’autres. L’IA avait pour mission d’aider à formuler les idées de ceux qui s’expriment à l’oral ou ont des difficultés à le faire. Elle pouvait structurer, synthétiser et regrouper les suggestions, tout en soumettant les propositions les plus pertinentes au vote.

Dans certaines régions de Colombie, les citoyens pouvaient cocher « IA » sur leur bulletin de vote.

Au Parlement colombien, la députée virtuelle Gaitana_IA, représentée physiquement par l’un de ses concepteurs, aurait voté chaque loi en fonction de l’avis de cette plateforme. Si la plateforme disait non à une proposition telle que l’approbation du budget ou la confiance dans le gouvernement, Gaitana_IA aurait voté non.

L’avatar, animé par l’intelligence artificielle, se voulait la voix des citoyens, plus représentative des minorités de Colombie, incorruptible et insensible aux pressions politiques.

Cependant, Gaitana_IA n’a pas été élue.

« Une boîte noire »

Min Reuchamps, professeur de sciences politiques à l’UCLouvain et spécialiste de la participation citoyenne, reconnaît l’attrait de cette idée colombienne : son caractère novateur et sa recherche d’une meilleure représentation de la société au sein des parlements. Mais il exprime aussi son scepticisme en formulant des réserves qui ont pu freiner les électeurs colombiens.

« Gaitana_IA semble dire ‘moi, je suis capable de mieux représenter et de mieux décider’. Mais comment arrive-t-elle à ses décisions ? En réalité, on n’en sait rien. On livre des avis variés et l’intelligence artificielle en fait une synthèse qui mène à des choix, mais on ne sait pas sur quelle base ces choix sont faits. C’est une boîte noire », indique-t-il.

Une boîte noire que très peu peuvent ouvrir, remarque Min Reuchamps. Peu de personnes ont les autorisations et les compétences nécessaires pour comprendre le fonctionnement de l’IA qui aboutit à ces décisions.

Et si ce processus était biaisé ? Qui pourrait le détecter ?

« Nous savons que les choix peuvent être biaisés, comme en témoigne l’usage des IA en politique ou dans d’autres domaines. Par exemple, lorsque l’IA est utilisée pour sélectionner des CV lors du recrutement, elle peut reproduire les biais de la majorité. Ainsi, utiliser l’IA pour prendre des décisions politiques pourrait paradoxalement désavantager les minorités plutôt que de les inclure. Cela serait d’autant plus contradictoire que l’IA est présentée comme un outil pour écouter les personnes généralement ignorées », ajoute-t-il.

Ce manque de transparence s’accompagne d’un problème de responsabilité, souligne encore ce spécialiste.

Aujourd’hui, lorsqu’un politique prend une décision, il doit l’assumer et justifier ses choix publiquement, même risquer une démission ou être non réélu en cas de mauvaise décision. Mais si l’IA prend la décision, qui en porte la responsabilité ?

« Quand des humains font une erreur, on peut les identifier et leur demander de s’expliquer. Avec l’intelligence artificielle, elle est tellement floue que l’on ne sait pas à qui s’adresser. Cela pose un véritable problème de reddition de comptes, élément essentiel dans nos démocraties », précise le professeur.

Min Reuchamps tempère toutefois : « Ce n’est pas une raison pour condamner l’IA, mais il faut l’interroger. Pour la démocratie, l’IA représente un potentiel autant qu’un danger. L’enjeu sera d’évaluer les avantages de son utilisation et d’exiger de savoir comment elle intervient dans les prises de décision. »

Il cite aussi des applications potentiellement bénéfiques de l’IA, qui peuvent enrichir la participation citoyenne d’une manière plus discrète qu’un avatar.

L’IA peut, par exemple, faciliter l’accès à l’information politique pour les citoyens. Certains endroits utilisent l’IA pour générer des cartes via des données ouvertes ou pour retranscrire et publier les débats des conseils communaux. Elle peut également aider ceux qui ne peuvent pas écrire à formuler leurs opinions, ou encore permettre des échanges dans différentes langues. En outre, l’IA est capable de traiter de vastes sondages d’opinion, synthétisant rapidement de grandes quantités de données issues de multiples sources.

À Audenarde, un « Plan communal » né avec l’IA

Audenaarde a expérimenté un tel usage de l’IA. Cette commune de 32 000 habitants en Flandre a récemment élaboré un nouveau plan pluriannuel, souhaitant une consultation citoyenne d’une envergure jamais vue dans la localité.

Pour établir ses grands axes, la nouvelle majorité a fait appel à GoVocal, une société spécialisée dans la facilitation de la participation citoyenne via des outils informatiques, dont certains s’appuient sur l’intelligence artificielle.

Audenaarde a organisé une vaste consultation et a recueilli 900 avis en ligne et 140 avis lors de soirées débats. Ainsi, plus d’un millier de contributions ont été prises en compte. L’IA a été chargée de les traiter en identifiant des récurrences, en classant les avis, puis en les synthétisant. Ce résumé structuré, réalisé rapidement, a servi de fondement à la rédaction du plan communal dès le début de la législature.

« L’IA nous a permis un gain de temps et d’efficacité », affirme Nathalie Lievyns, porte-parole de la commune. « Notre équipe est petite. Nous n’avons pas les moyens de consulter la population aussi largement sans l’IA. »

Nathalie Lievyns, qui a suivi toute la démarche, souligne qu’il est essentiel d’appliquer un regard humain sur le processus. « L’IA peut parfois tirer des conclusions trop simplistes », dit-elle.

Un exemple : un contributeur avait mentionné des déchets en dépôt clandestin sur une aire de jeux. L’IA a alors associé « jeunes » et « dépôt clandestin » de manière manichéenne. « Il faut alors prendre l’initiative de dire : ‘Ce n’est pas tout à fait la conclusion à tirer.’ J’ai assisté aux soirées de débats et pu comprendre ce qui était vrai, d’où venait cette conclusion, et il est important de se demander sur quelles bases l’IA a tiré ses conclusions », ajoute-t-elle.

Est-ce alors un outil à recommander ?

« Oui, tant que nous avons une vérification humaine, tant que nous ne laissons pas l’IA prendre les décisions », ce qui était précisément le projet de Gaitana_IA en Colombie.

À Audenarde, elle insiste également sur une précaution supplémentaire : « Qu’adviendra-t-il des données que vous fournissez à l’intelligence artificielle ? Nous n’avons partagé aucune donnée personnelle avec l’IA et avons utilisé des programmes en lesquels nous avons confiance. Nous savions que la plateforme avec GoVocal était fiable et conforme au RGPD. »

Évolution technologique, pas forcément politique

Des plateformes de participation citoyenne, comme GoVocal, ont déjà fourni des outils à des villes telles qu’Oslo, Copenhague, Dublin, ainsi qu’en Belgique à Gand ou Louvain. Ces outils s’appuient de plus en plus sur l’IA pour croiser des données, élargir la portée des sondages et permettre à de petites équipes d’effectuer de grandes consultations avant des travaux d’aménagement.

Émile Heymans, directeur des ventes de GoVocal, souligne que ses plateformes intègrent toujours une vérification humaine du contenu proposé par l’IA. « Il est essentiel de garder ce contrôle humain, qui donne crédibilité aux décisions », affirme-t-il. « Cette relecture humaine des conclusions de la participation citoyenne permet aux décideurs de rester connectés aux opinions exprimées. »

Émile Heymans est convaincu que l’IA jouera un rôle croissant dans les processus de participation citoyenne. Mais, selon lui, des outils plus performants ne garantiront pas nécessairement que les citoyens seront mieux entendus.

« Le développement des outils va actuellement plus vite que l’adaptation culturelle des citoyens et des politiciens », observe-t-il.

Autrement dit, l’IA, bien encadrée, pourrait améliorer le porte-voix des citoyens, mais si ceux-ci hésitent à participer à la vie politique ou si les responsables politiques n’adoptent pas les demandes citoyennes, il n’y aura pas de changement. De nouveaux outils risqueraient alors d’être utilisés pour continuer à faire de la politique de manière traditionnelle.